From Raw Experience to Skill Consumption: A Systematic Study of Model-Generated Agent Skills
从原始经验到技能消费:模型生成Agent技能的全生命周期系统研究
🧭 Agent技能生命周期分析与效用评估 ★ 深度解读
Fudan University · Microsoft Research · Shanghai Jiao Tong University
系统评估模型生成领域技能全生命周期,揭示技能效用模式并提出元技能引导改善提取质量。
📌 工作参考价值(4 点)
- 技能评估应引入效用导向指标(提取效力EE、目标可进化性TE),替代纯文本质量判断,避免因表面流畅性选择实际有害的技能。
- 经验池中成功与失败轨迹的混合比例显著影响技能质量,应根据任务类型定向调控——多步推理类任务可适度增加失败样例,避免纯成功池造成过拟合。
- 避免直接让LLM以“可读性”筛选技能,而是基于验证过的维度(如失败机制编码、可操作具体性、高风险操作黑名单)设计引导提示,用元技能先验提升提取的实战收益。
- 技能在跨模型复用时表现差异大,消费方需进行小规模适配测试,电商/推荐Agent中应评估技能对不同基座模型的适用性,避免负迁移。